#Test-time scaling

3 篇

Direct Pass@$k$ Optimization for Thought Pruning: Balancing Quality and Diversity in Test-Time Reasoning

直接优化 Pass@k 的思维剪枝：平衡测试时推理的质量与多样性

🧭 LLM 推理剪枝 · pass@k 优化

University of Southern California

直接优化所选候选池的 pass@k，让质量与多样性在剪枝中自动平衡，超越现有策略

📌 工作参考价值（4 点）

在搜索/推荐/QueryRec 中用 LLM 生成多个候选 query、文案或商品描述时，可将 pass@k 作为筛选目标：只保留能最大化「至少有一个成功」概率的子集，而不是单独按质量分或多样性筛选，减少冗余并提升最终命中率。
工程实现上，对每个生成前缀估计其最终成功的概率（可由模型 logprob 或轻量分类器给出），然后用联合概率选择子集，而非独立 top-k 截断；该思想可嵌入 beam search 或 MCTS 框架，用于 Agent 多步推理轨迹的早期剪枝。
结论显示保留中等数量候选时收益最明显，提示不要过度剪枝：当 LLM 生成大量候选时，仅保留前 1-2 个可能损害覆盖，适当保留 5-10 个候选再精排更优。
该方法不依赖特定模型，适用于任何可产出候选集的 LLM 场景，可直接用于消息推送选词、搜索 suggestion 的候选生成环节。

Reasoning | 2026-10-22 | cs.CL | score 7/10

从 Pareto 到偏好：通过摊销智能体策略发现实现个性化测试时扩展

🧭 Agent 策略搜索与测试时计算优化

Beijing Institute of Technology · Xiaohongshu Inc

PersonTTS 用摊销智能体策略发现复用历史搜索经验，按用户多维需求个性化配置测试时计算

📌 工作参考价值（4 点）

将用户需求拆成多维约束（准确率、延迟、成本）并学习对应的控制器，可迁移到电商推荐中不同场景/用户对延迟与精度的差异化要求：按 profile 匹配策略库，而非一套模型打天下。
摊销策略发现思路可解决推荐/广告系统中策略冷启动与重复搜索开销：利用历史搜索经验做 requirement-matched 初始化和程序指导，同时保留目标分布上的重新评估，避免负迁移。
工程上可借鉴固定候选评估预算下的跨用户经验复用机制：在线上策略迭代或 AutoML 场景中，用历史实验经验指导新配置搜索，可显著降低 agent 时间和推理成本。
需求匹配初始化的做法类似于推荐中的 meta-learning / warm-start，可以先构建历史任务库，再按特征相似度初始化优化器，提升新任务收敛速度。

Agent | 2026-10-06 | HF Daily | score 7/10

自适应循环 Transformer 提升测试时扩展效率

🧭 自适应循环 Transformer 的测试时缩放

Tsinghua University · Yale University

提出 TaH2 自适应循环 Transformer，通过前瞻深度监督让模型仅对收益 token 增加迭代，测试时计算斜率提升 53%

📌 工作参考价值（4 点）

在 LLM 推理服务中（如搜索 query 改写、商品卖点生成、推荐理由），可采用 TaH2 的自适应计算思路：训练一个轻量 iteration decider，对简单 token 少迭代、困难 token 多迭代，同等精度下可显著降低 decode FLOPs，适合降低电商场景的推理成本与延迟。
lookahead depth supervision 的在线标签方法可迁移到动态路由/级联模型：判断“继续计算是否能提升预测”来训练 router，例如 MoE 中选择专家数、广告出价/策略分析中的多步推理是否继续，避免固定深度浪费。
该后训练方案不改变 backbone 结构，只加轻量 decider 并进行联合微调，适合对已部署的 7B/13B 模型做后训练优化，快速验证收益；对需要高精度推理的任务（如商品属性逻辑校验、A/B 分析）尤其值得尝试。
结论提示：全局固定深度 loop 在最大深度增加时会饱和，而自适应分配能让增益持续增长；在 Agent 多步推理中，可以按 token 难度动态分配思考步数，减少低效 rollout 的算力消耗。

Reasoning | 2026-09-27 | HF Daily | score 7/10